iT邦幫忙

2026 iThome 鐵人賽

DAY 3
0
AI Engineering

30 天打造 Edge AI Product:一個 PM 從 0 到 1 的 AI Engineering 實戰系列 第 3

只有一個工程師、一片 QCS6490,我怎麼做出 AI PoC?

  • 分享至 

  • xImage
  •  

前兩天,我一直在談 Customer Problem。

但真正開始做 Edge AI PoC 時,我才發現:

知道要解決什麼問題,只是第一步。

因為現實世界的AI PM,不一定有充足的資源, 另外我有從人工智慧畢業的Domain Know How。

這次的情況其實很簡單:

沒有 GPU Server。

沒有一大群 AI Engineer。

手上只有一位工程師,加上我這個 AI PM。

還有一片:

Qualcomm QCS6490。

就這樣。

但副總還是希望我們:

「做一個 Edge AI PoC 出來。」

那問題來了。

兩個人,到底能做什麼?


第一個直覺:什麼都想做

一開始其實很容易陷入一個陷阱。

既然是 Edge AI,那是不是應該:

  • 做 Object Detection
  • 做 Pose Estimation
  • 做多模型
  • 做多 Camera
  • 做即時影像分析
  • 做各種 AI Scenario

聽起來都很好。

但我很快發現:

資源根本不允許我們這樣做。

沒有 GPU,代表我們不適合從頭訓練 Model。

只有一位工程師,也不可能同時開發完整的 AI Framework、Video Pipeline、Application 和 Backend。

所以這時候,AI PM 不能再問:

「我們想做什麼?」

而應該改問:

「以我現在手上的資源,什麼是最有機會讓我可以成功的?」


我先盤點手上的資源

我把現況很簡單地整理成:

項目 規劃
Team Size 1 Engineer + 1 PM
Hardware Platform Qualcomm QCS6490
AI Model Strategy 優先採用 Pre-trained Model,避免從零訓練
AI Framework Qualcomm AI Hub、ONNX Runtime、TensorFlow Lite
Computing Resource 主要依賴 Edge Device 內建 NPU
Data Processing Edge 端即時推論,減少雲端依賴
Connectivity SCADA / WebAccess / MQTT / OPC UA
Deployment Docker Container 或 Native Application
Target Use Case 設備異常偵測、預知保養、品質檢測
Development Effort PoC 約 1~3 個月
Cloud Dependency 僅用於模型更新與資料收集
Expected Performance 秒級推論、低延遲、離線可運行

Goal

不是做完整產品,而是做出一個可以驗證產品價值的 PoC。

這個「Goal」非常重要。

因為如果目標是 Product,兩個人當然不夠。

但如果目標是:

用最少資源驗證一個有商業價值的 AI Use Case。

事情就完全不一樣了。

接下來,我開始反過來找 Use Case

我沒有先決定:

「我要做安全帽辨識。」

而是先看:

我們現有的 Pre-trained Model 能做到什麼?

這時候我們發現一個很現實的問題。

如果我們沒有足夠 GPU 資源自己訓練模型,那麼最合理的策略就是:

先使用現成的 Pre-trained Model。

可是 Pre-trained Model 也會反過來限制我們的 Use Case。

例如模型可以穩定做到:

Person Detection

但這不代表它可以直接做到:

  • 特定工廠設備辨識
  • 特殊缺陷辨識
  • 客製化產品分類
  • 複雜異常行為判斷

因為這些通常需要更多資料、模型調整甚至重新訓練。

而我們現在沒有這個資源。

所以我們最後找到一個很重要的方向

無人場域。

為什麼?

因為這個場景剛好非常適合我們現有的能力。

我們不需要重新訓練一個很複雜的模型。

只要:

Pre-trained Person and Helmet Detection

再加上:

Rule / Geofence / Event

就可以形成一個完整的 Use Case。

例如:

平常這個區域應該沒有人。

所以我們可以定義:

Person Detected in Restricted Area → Intrusion Event

再進一步:

Intrusion Event → Alert → Recording

這時候我突然發現:

我們不是因為資源不足,只能做一個很小的 Demo。

反而是因為資源有限,我們被迫找到一個:

模型能力、硬體能力、人力資源與商業情境都能對上的 Use Case。


這讓我重新理解「AI PM 的取捨」

如果今天有:

10 個 AI Engineer
5 台 GPU Server
大量 Training Data

我們可能會從「客戶想要什麼」開始往下做。

但當你只有:

1 Engineer + 1 PM + 1 Edge AI Board

你的 Product Strategy 就必須改變。

你不能問:

What can we build?

而要問:

What can we validate with the resources we have?

這兩句話看起來很像,其實完全不同。

前者容易讓產品無限膨脹。

後者會逼你做出真正的 Priority。

最後,我們把 Use Case 定下來

我們把第一階段 PoC 收斂成:

Unmanned Area Monitoring

Camera -> Pre-trained AI Model -> Person Detection -> Geofence / Rule -> Intrusion Event -> Alert / Recording

這個 Use Case 有幾個好處:

第一,技術可行。

不需要從零訓練 Model。

第二,Edge AI 合適。

影像可以直接在 Edge Device 上處理,不需要把所有影像送到 Cloud。

第三,容易展示。

Demo 很容易讓客戶理解:

「這個地方平常沒有人,有人進來,系統就通知我。」

第四,可以往產品延伸。

未來可以再加入更多 Model、Rule、Event、Device Management,甚至 AI Agent。


我學到的一件事

以前我會認為:

資源越多,能做的事情越多。

但這次 PoC 讓我發現:

資源越有限,AI PM 越需要知道什麼不要做。

我們不是先有一個很完整的 AI Solution,再去找客戶。

而是從:

人力限制 -> 硬體限制 -> Model 限制 -> 找出可行的 AI Capability -> 再反推適合的 Use Case
最後才形成我真正能在短時間內驗證的 PoC。

這也是我認為 AI PM 很重要的一個能力:

不是把所有可能性都做出來,而是在有限資源下,找到最值得驗證的那一個。

而我們的下一個問題就是:

有了 Use Case 之後,怎麼把它從一個「可以 Demo 的 PoC」,變成一個真正有 Product Vision 的 Edge AI Application?


上一篇
Finding the Right Problem: 不是所有 AI 都值得做
下一篇
從一個 PoC,到一個真正的 Edge AI Product
系列文
30 天打造 Edge AI Product:一個 PM 從 0 到 1 的 AI Engineering 實戰10
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言